Nova iniciativa da ONU visa abordar usos militares da IA

A iniciativa, do Instituto das Nações Unidas para a Investigação sobre o Desarmamento (UNIDIR, na sigla em inglês), tem lançamento previsto para esta quinta-feira e vai estabelecer o primeiro fórum internacional para que os principais interessados procurem enfrentar a questão.

O diretor do instituto sediado em Genebra, Robin Geiss, alertou em conferência de imprensa da ONU na terça-feira que "a margem para o julgamento humano é cada vez mais estreita, incluindo no domínio nuclear".

É difícil avaliar o quão próximo o mundo está de máquinas que possam vir a agir fora do controlo humano, disse Geiss, acrescentando que a incerteza "é a questão" que se está a "tentar resolver".

Um dos problemas é que a IA está a penetrar, cada vez mais, em diversas áreas --- sistemas de alerta precoce, recolha de informação e reconhecimento --- e "é muito difícil determinar em que ponto estamos, de facto, a perder o controlo", afirmou.

Segundo Geiss, durante algum tempo houve uma resistência generalizada em estabelecer salvaguardas para a IA. Contudo, a proliferação das capacidades e o potencial impacto da tecnologia levaram a "uma crescente perceção de que estamos perante uma encruzilhada e que agora é o momento de agir, incluindo no que diz respeito à IA militar".

Geiss observou que a ONU reconhece que a competição global pela liderança em IA impõe obstáculos sérios.

"Mas as preocupações com o impacto da IA já transcendem os blocos geopolíticos e estão a levar as grandes potências a tomar medidas", disse, mencionando uma proposta feita em setembro para que os EUA e a China criem um sistema de alerta de segurança em IA, dirigido a questões que possam ameaçar a segurança nacional.

Os riscos associados à IA foram um tema central nos discursos dos líderes de muitas das 193 nações-membros da ONU, durante a reunião anual de alto nível realizada em setembro.

Este verão, o UNIDIR estabeleceu um Centro de Excelência em IA, Paz e Segurança, a primeira plataforma permanente da organização mundial dedicada a estes temas.

Geiss afirmou que a iniciativa recebeu financiamento das cinco principais potências nucleares: EUA, Rússia, China, Reino Unido e França.

Na quinta-feira, o UNIDIR vai lançar um novo fórum, ligado ao centro, para reunir "atores de todos os setores relevantes e de diferentes partes do mundo", de forma a trabalhar na questão da IA nas aplicações militares.

Geiss não detalhou exatamente o que a iniciativa fará, mas mencionou que integrará outros esforços relacionados com a IA que o centro lançará esta semana.

Outra iniciativa irá focar-se no papel da indústria, visando desenvolver "uma estrutura para uma conduta industrial responsável", explicou.

As decisões tomadas pelas empresas durante as fases de conceção e desenvolvimento "determinam se as capacidades militares baseadas em IA serão, de facto, fiáveis e previsíveis, e se poderão operar em conformidade com o direito internacional", disse Geiss.

Por esse motivo, o UNIDIR está a desenvolver uma estrutura de conduta industrial responsável que fornecerá "orientações práticas e voluntárias", alinhadas com o direito internacional e orientadas para a garantia dos direitos humanos, acrescentou.

O UNIDIR está também a lançar uma iniciativa dirigida aos riscos do uso indevido de IA por grupos armados, alertou Geiss, sublinhando que tais grupos já utilizam a tecnologia para apoiar o planeamento operacional, a execução de ações e a logística.

"A questão urgente da IA no âmbito militar não pode mais permanecer nas sombras", afirmou Geiss. "Chegou o momento de unir forças e enfrentar, de frente, a questão da IA no setor militar", acrescentou.